Trong một thời gian ngắn sau trận Cannae, người La Mã gần như rối loạn. Đội quân tốt nhất của họ đã bị tiêu diệt gần như hoàn toàn, những người còn sống thì bị khủng bố tinh thần nặng nề, viên chấp chính duy nhất còn lại (Varro) thì hoàn toàn mất uy tín, một thảm họa cho quân đội và xã hội của Cộng hòa La Mã. Những người còn sống trở về từ Cannae bị phiên chế thành hai legio và cử ra đảo Sicilia đóng quân như một cách trừng phạt việc họ đã làm mất uy danh quân đội La Mã trên chiến trường.[15] Bên cạnh thiệt hại về người, thiệt hại về tinh thần của La Mã cũng rất nặng nề: Mỗi thành viên tầng lớp trên trong xã hội La Mã thường có một chiếc nhẫn vàng làm dấu[17], và chỉ trong trận Cannae, Hannibal đã thu được ít nhất 200 chiếc nhẫn vàng như vậy. Người Roma hoảng loạn tới mức họ phải tìm tới các phương thức cổ xưa như hiến tế người để cầu nguyện, ít nhất đã có hai người bị thiêu sống.[18] Lucius Caecilius Metellus, một viên quan bảo dân, hoảng sợ tới mức đề nghị các đồng nhiệm cùng lên thuyền bỏ trốn để làm việc cho nước ngoài.[17]

Với Hannibal, chỉ sau 3 trận chiến ở Trebia, Trasimene và Cannae, ông đã tiêu diệt được một lực lượng tương đương 8 đội quân của quan chấp chính La Mã.[19] Trong ba mùa chiến dịch, Roma đã mất một phần năm dân số trên 17 tuổi.[5] Ảnh hưởng tinh thần của chiến thắng ở Cannae khiến cho phần lớn miền Nam nước Ý gia nhập liên minh của Hannibal. Như Polybius đã ghi lại: "Nặng nề hơn cả thất bại ở Cannae, là việc những đồng minh cũ của La Mã, những thành bang tưởng như trung thành hết mực, nay đã rời bỏ liên minh chỉ với một lý do đơn giản, họ đã hết hy vọng với sức mạnh của La Mã."[4] Cùng trong năm này, các thành phố Hy Lạp trên đảo Sicilia bắt đầu phản lại sự cai trị của La Mã, cùng với đó, vua Philippos V của Macedonia cũng tỏ sự ủng hộ Hannibal bằng cách phát động cuộc Chiến tranh Macedonia lần thứ nhất chống lại La Mã. Hannibal cũng củng cố được liên minh với vị vua mới Hieronymus của Syracuse, thành bang độc lập duy nhất ở Sicilia. Người Gaul ở miền Bắc Italia cũng trở thành một lực lượng ủng hộ Hannibal.

Sau trận Cannae, chỉ huy kỵ binh người Numidia là Maharbal đã đề nghị Hannibal lợi dụng thời cơ tiến quân ngay về Roma tuy nhiên Hannibal đã không làm theo lời khuyên này. Sử cũ ghi lại phản ứng của Maharbal khi bị từ chối như sau: "Rõ ràng Tạo Hóa không ban hết mọi thứ cho một con người. Người biết cách giành chiến thắng nhất, Hannibal, cũng lại là người không biết cách tận dụng chiến thắng đó nhất."[5][20] Tuy nhiên Hannibal cũng có những lý do của ông khi không tiếp tục tiến quân về Roma. Theo sử gia Hans Delbrück thì thiệt hại trong các chiến dịch trên đất Ý cũng đủ khiến lực lượng của Carthage không thể tấn công thẳng vào Roma còn lực lượng của La Mã, tuy tổn thất lớn sau trận Cannae, cũng đủ để chống lại một cuộc bao vây Roma và duy trì lực lượng trên các vùng khác của Ý bất chấp sự có mặt của quân Carthage.[21] Cách tiến quân của Hannibal sau trận Trasimene (217 TCN) và Cannae (216 TCN), cũng như sự thật rằng mãi 5 năm sau đó ông mới tấn công Roma lần đầu (211 TCN) cho thấy có thể chiến thuật của ông không phải là tiêu diệt tận gốc kẻ địch mà là triệt tiêu tinh thần đối phương bằng một loạt trận đánh để rồi buộc đối phương phải ký một hiệp ước hòa bình kèm theo việc từ bỏ hết các thành bang đồng minh.[22][23] Việc này cũng góp phần làm tan rã khối liên minh giữa La Mã và các đồng minh của họ, từ đó tiến tới bao vây cô lập La Mã từ nhiều hướng. Sau chiến thắng Cannae, như đã nói, khối liên minh La Mã lung lay dữ dội. Nếu quân đội Carthage ở Ilberia không bị thất bại thì chiến thuật của Hannibal ắt hẳn đã thành công[3].

Ngay sau trận Cannae, Hannibal gửi một phái đoàn do Carthalo dẫn đầu về Roma để thảo luận một hiệp ước hòa bình với Viện Nguyên lão La Mã. Tuy gặp nhiều tổn thất cả về người và tinh thần, Viện Nguyên lão vẫn từ chối đề nghị của Hannibal, trái lại họ còn tăng gấp đôi nỗ lực chống người Carthage bằng việc tổng động viên toàn bộ nam giới La Mã, thành lập các legio mới từ những nông dân không có đất canh tác và thậm chí là từ nô lệ. Việc tang lễ cho những người đã chết ở Cannae bị chính quyền La Mã hạn chế trong vòng 30 ngày, cũng chỉ có phụ nữ mới được phép khóc lóc ở nơi công cộng.[5][10] Trận Cannae cũng giúp cho người La Mã có được bài học lớn của họ, từ sau thất bại ở Cannae, quân đội La Mã không bao giờ còn đối mặt sòng phẳng với quân Carthage trên chiến trường, thay vào đó họ sử dụng lại chiến thuật chiến tranh tiêu hao của Fabius - chiến thuật duy nhất hữu hiệu giúp đẩy Hannibal ra khỏi nước Ý.

Sau cùng, La Mã cũng trả được thất bại ở Cannae, họ tiến quân sang châu Phi, Publius Cornelius Scipio Africanus, con trai của P.C.S Aemilianus chỉ huy quân La Mã đánh bại Hannibal tại trận Zama, kết thúc Chiến tranh Punic lần thứ hai.